Ivan Kozhedub sinh tại làng Obrazheyevka, thuộc Ukraina. Ông là con út trong số 5 anh chị em.

Năm 1934 sau khi tốt nghiệp cấp II, Kozhedub vào học tại một trường dạy nghề. Năm 1940, ông tốt nghiệp trường Hóa kỹ thuật Shostka và nhập ngũ. Ivan Kozhedub được huấn luyện trở thành phi công chiến đấu tại Trường Không quân Chuguyev. Sau khi tốt nghiệp loại xuất sắc tại đây năm 1941, ông được giữ lại trường làm huấn luyện viên cho các phi công trẻ.